Nguyên tên ông là Huỳnh Văn Thước, là con trai thứ 4 và là con trai út trong nhà, nhưng vì 2 anh trai mất sớm, chị gái cả Huỳnh Thị Duật sinh năm 1873, lấy chồng tại Hương Lâm, Tứ Chánh nay thuộc xã Tiên Hiệp - huyện Tiên Phước - tỉnh Quảng Nam nên ông là người con trai duy nhất. Bởi sự kỳ vọng của song thân, từ nhỏ ông đã được rèn dạy để tiến thân bằng khoa cử.

Ông bắt đầu học chữ Nho từ năm 8 tuổi dưới sự dạy dỗ của người cậu ruột là Tế tửu quốc tử giám Nguyễn Đình Tựu, đổi tên là Huỳnh Hanh, tự là Giới Sanh. Năm 13 tuổi đã văn hay chữ tốt. Năm 1900, ông đậu Giải nguyên kỳ thi hương năm Canh Tý 1900, được xưng tụng là một trong Thập Ngũ Phụng Tề Phi của đất Quảng Nam xưa.

Năm Giáp Thìn 1904, ông đỗ Đệ Tam giáp tiến sĩ đồng xuất thân.